Vi Quốc Thanh sinh ra ở Đông Lan, Quảng Tây, trong một gia đình thiểu số người Tráng nghèo.[3] Ông gia nhập Hồng quân Trung Quốc ở tuổi 16 (1929) và Đảng Cộng sản Trung Quốc vào năm 1931. Ông đã thăng lên cấp bậc chỉ huy tiểu đoàn trong Thất quân dưới thời Đặng Tiểu Bình và là một chỉ huy trung đoàn trong Vạn lý Trường chinh. Sau Vạn lý Trường chinh, ông phục vụ trong Lữ đoàn 344, và sau đó hành quân về phía nam thuộc đơn vị 5 của Hoàng Khắc Thành vào tháng 1 năm 1940.[4] Đến năm 1944, ông chỉ huy Sư đoàn 4 của Tân Tứ quân, và sau đó là ba đơn vị (2, 10 và 12) của Quân đội Bắc Giang Tô trong Chiến dịch Hoài Hải. Năm 1948, ông đã thành lập Quân đoàn Qiu Qingquan và 100 xe tăng của Quân đoàn 5 dưới sự chỉ huy của Tưởng Vĩ Quốc (con nuôi của Tưởng Giới Thạch) trong một hành động trì hoãn quyết định trong Chiến dịch Hoài Hải.[5] Năm 1949, ông là phó ủy viên chính trị của Nhóm Thập quân của tướng Diệp Phi thuộc Tam Dã chiến quân.